Métodos Multivariantes

Los Métodos Multivariantes, se pueden definir como un conjunto de técnicas estadísticas que analizan de forma simultánea muchas variables.

En general, el análisis multivariante consiste en una serie de formulaciones geométricas de base algebraica, las cuales se utilizan para buscar el espacio de mejor ajuste de los puntos filas y puntos columnas, representado así gráficamente lo mejor posible la matriz de datos original.

Es decir, tienen la venta de analizar de forma simultánea a todas las variables, proyectándolas sobre un número reducido de nuevas variables aritificiales llamadas componentes, factores o dimensiones que concentran la mayor variabilidad posible de las variables originales.

Por eso se le llaman tambien técnicas de REDUCCION de la dimensionalidad.

Entre los métodos multivariantes de reducción de dimensiones más conocidas, tenemos:

• Análisis de componentes principales
• Análisis factoriales
• Escalamiento multidimensional
• Análisis de correspondencias

Presentan diferencias entre ellas en sus procedimientos, naturaleza de los datos requeridos y preguntas de investigación asociadas.

Análisis de componentes principales: busca explicar tanta proporción de la varianza total de las variables como sea posible. Es decir, agota toda la varianza contenida en las variables originales, las que son repartidas en los componentes principales (nuevas variables).

Análisis factorial: busca entender los constructos (dimensiones o variables latentes) que subyacen los datos. No sustrae toda la variabilidad, sino solo la que es común entre variables (covarianza).

Escalamiento multidimensional: busca describir las relaciones de distancia/semejanza de los datos.

Análisis de correspondencia: similar al análisis de componentes principales, pero para variables categóricas.

Uno de los grandes desafíos es entender-interpretar estas nuevas variables, factores o dimensiones en su relación con otras variables que se quieran asociar.

Idea general del Análisis de Componentes de Principales (ACP)

En muchas ocasiones el investigador se enfrenta a situaciones en las que, para analizar un fenómeno, dispone de información de muchas variables que están correlacionadas entre sí en mayor o menor grado.

Estas correlaciones son como un “velo” que impide evaluar adecuadamente el papel que juega cada variable en el fenómeno estudiado.

Cuando se trabaja con demasiada variables que están muy correlacionadas entre sí, su consideración conjunta es redundante y no permite detectar los patrones que subyacen a los datos.

El ACP permite resumir los datos en un número menor de variables no correlacionadas, sin perder demasiada información y permite capturar la “esencia” de esta variación vinculada.

Matemáticamente, busca un subespacio de mejor ajuste mínimo cuadrático que contenga la mayor cantidad posible de información de la matriz original de datos

Esquema del ACP

Valor Propio o autovalor (eigenvalue): es un escalar o constante, producto de la diagonalización de una matriz simétrica y producen un vector no nulo que recogen y distribuyen la varianza de la matriz original de datos

Características

El análisis de componentes principales (y también el análisis factorial) son en la práctica análisis de datos exploratorios, ya que no evalúan explícitamente hipótesis nulas.

No toman en cuenta la relación entre variables dependientes e independientes, sino más bien, la asociación general entre los datos, es decir, la estrutura de la nube de puntos.

Así mismo, examinan la variación compartida entre un conjunto de variables, la que puede ser modelada matemáticamente.

El nuevo conjunto de variables que se obtienen, es igual en número al de variables originales.

Las diferencias entre ambos conjuntos de variables radica en que las componentes principales se calculan de forma que estén incorrelacionadas entre sí. Así mismo, estos componentes poseen varianza compartida de todas las variables originales

En ACP, la varianza es llamada Inercia y se entiende como un valor relacionado con la asociación existente en la estructura interna de los datos

Por esta razón se seleccionan los primeros componentes que contengan mayor varianza (inercia)

Utilidad

• Aclaran las relaciones causales
• Reducen la cantidad de datos que el analista necesita gestionar
• Permiten que la interacción de las relaciones causales se estudie más fácilmente
• Permite detectar las variables que pueden explicar de mejor forma los fenómenos estudiados
• Permite entender la dirección y magnitud de los datos

Representación Geométrica

Si imaginamos nuestras variables como vectores de igual longitud que emanan de un origen común, entonces una forma de representar sus relaciones entre sí es en términos de los ángulos que se forman entre ellos.

Un ángulo de 90° entre dos vectores indica una ausencia total de correlación, ya que la relación angular entre ellos se obtiene como el coseno de 90° –> cos(90°) = 0, lo que es equivalente con una correlación de 0.

Un ángulo de 0° entre dos vectores indica una correlación perfecta positiva, ya que la relación angular entre ellos se obtiene como el coseno de 0° –> cos(0°) = 1, lo que es equivalente con una correlación de 1.

Un ángulo de 180° entre dos vectores indica una correlación perfecta negativa, ya que la relación angular entre ellos se obtiene como el coseno de 180° –> cos(180°) = -1, lo que es equivalente con una correlación de -1.

Representación Geométrica

Por ejemplo, supongamos que tenemos 3 variables y la representamos como vectores en función de sus correlaciones

Representación Geométrica

Representación Geométrica

Representación Geométrica

Finalmente, el gráfico de componentes principales permite entender la relación entre las variables originales, dentro del espacio creado por las nuevas variables artificiales (componentes)

Cada componente posee cargas factoriales asociadas a cada una de las variables originales , las cuales indican de qué manera cada componente “representa” a las variables originales.

Estos valores se obtienen como producto de la raiz del autovalor por el autovector respectivo.

El Autovector (dirección) de un componente se obtiene resolviendo el sistema de ecuaciones homogéneo:\((C-\lambda I)\mu=0\). Donde C es la matriz de correlaciones e I es la matriz identidad.

Para ahorrarnos el tedioso calculo del polinomio característico. Mostramos directamente los resultados.

Cada uno de estos valores se puede interpretar como una correlación de las variables originales con el componente.

Selección de Componentes

Existen distintas reglas para seleccionar el número de componentes, por lo general se consideran aquellos que poseen autovalores mayores a 1. De lo contrario, la varianza explicada es menor que la de las variables originales (valor 1,0).

Este criterio es bastante preciso con un número pequeño de variables (entre 10 y 15), pero con un número mayor hay que considerar el porcentaje de varianza acumulado.

Otra forma, es con los gráficos de sedimentación y la selección se realiza con la regla del “codo”, donde se precia el cambio repentino en la pendiente de la curva.

Test previos a la realización de un ACP

EXAMEN DE LA MATRIZ DE CORRELACIONES

TEST DE ESFERICIDAD DE BARTLETT

INDICE KMO DE KAISER-MEYER-OLKIN

Para este ejemplo usaremos nuevamente el data set craneométrico de libre uso de William Howells

library(kableExtra)
library(readxl)
#Cargamos la base completa
base <- read_excel("data/Howell.xls")    

#Seleccionamos las variables
sub_base <- base[ , c("GOL", "NOL", "BBH", "ZYB", 
                      "BNL", "XCB", "XFB")]  

head(sub_base) %>% kbl() %>% 
  kable_classic_2(full_width = F, position = "left")

Realizamos los Test a los datos a fin de validar que sean aptos para un ACP

Prueba de la correlación

cor(sub_base)

          GOL       NOL       BBH       ZYB       BNL       XCB       XFB
GOL 1.0000000 0.9838197 0.5164666 0.5525357 0.7179076 0.2574970 0.2813647
NOL 0.9838197 1.0000000 0.5022812 0.5250130 0.7136548 0.2738495 0.2998215
BBH 0.5164666 0.5022812 1.0000000 0.5486922 0.7035988 0.3094524 0.3124439
ZYB 0.5525357 0.5250130 0.5486922 1.0000000 0.6071792 0.5589706 0.4937993
BNL 0.7179076 0.7136548 0.7035988 0.6071792 1.0000000 0.2273410 0.2368325
XCB 0.2574970 0.2738495 0.3094524 0.5589706 0.2273410 1.0000000 0.7828565
XFB 0.2813647 0.2998215 0.3124439 0.4937993 0.2368325 0.7828565 1.0000000

#Podemos verlo un poco mejor con la función corrplot
library(corrplot)  #Lo cargamos primero
corrplot(cor(sub_base), method ="color", tl.col = "black", tl.srt = 20, addCoef.col ="white", number.digits=3)

Test o Prueba de esfericidad de Barlett

library(psych)  #Cargamos la librería primero
b <- cortest.bartlett(cor(sub_base), n=2524)
b

$chisq
[1] 17375.26

$p.value
[1] 0

$df
[1] 21

#Si queremos verlo como una tabla, podemos hacer lo siguiente:
#Primero psasamos lo valores del objeto a un data frame
bartlett <- data.frame("chisq" = b$chisq, "p.value"=format(b$p.value, scientific = TRUE), "df" = b$df)

#Luego usamos el kableExtra para darle mejor presentación
bartlett %>% kbl() %>% 
  kable_classic_2(full_width = F, position = "left")

El test nos dice que el p-valor es muchisimo menor que 0.05, por tanto rechazamos la Ho

Prueba del KMO (Kaiser-Meyer-Olkin)

KMO(sub_base) 

Kaiser-Meyer-Olkin factor adequacy
Call: KMO(r = sub_base)
Overall MSA =  0.74
MSA for each item = 
 GOL  NOL  BBH  ZYB  BNL  XCB  XFB 
0.68 0.67 0.84 0.83 0.83 0.66 0.71 

El valor de MSA = 0.74 , lo cual nos indica que amerita la realización de componentes (PCA) ya que su valor es mayor a 0.5

Es una medida de la idoneidad de los datos para el análisis factorial. La prueba mide la adecuación del muestreo para cada variable en el modelo y para el modelo completo. Es decir, indica la proporción de varianza en las variables que pueden ser causadas por factores subyacentes.

Kaiser (1974) recomienda no aceptar un modelo factorial si el KMO es inferior a 0,5. Los valores altos (cercanos a 1.0) generalmente indican que un análisis factorial puede ser útil con los datos. Si el valor es menor que 0,50, los resultados del análisis factorial probablemente no serán muy útiles.

Como los test nos han indicado, nuestros datos están optimos para realizar un ACP.

Ahora si computamos los componentes principales.

Es importante que estandaricemos las variables tal como lo vimos en el esquema del ACP visto en clase, para ello usamos el argumento (scale=T) de la función prcomp. Esta es la forma rápida de implementar un ACP sobre una matriz de datos.

Por su parte, con la librería FactoMineR y factoextra, se pueden obtener resultados más detallados.

ACP <- prcomp(sub_base,scale=T)

Para obtener los los autovalores (eigenvalues) y la varianza explicada (individual/acumulada) para cada componente, usamos la función get_eigenvalue del paquete factoextra

Para esto, la función get_eigenvalue() se aplica directamente sobre el objeto ACP

#install.packages("factoextra")    #Lo instalamos primero
library(factoextra)                #Cargamos la librería
#Obtenemos los autovalores y la varianza explicada
get_eigenvalue(ACP) %>% kbl() %>% kable_classic_2(full_width = F, position = "left")

Podemos conservar a los dos primeros componentes cuyos autovalores son mayores a 1 y poseen el 78.5% de la varianza acumulada

Podemos visualizarlo con gráficos de sedimentación

#Usamos la función fviz_eig() del paquete factoextra

fviz_eig(ACP,choice="eigenvalue", addlabels = TRUE, main="Grafico de Sedimentacion") + 
  geom_hline(yintercept=1,linetype="dashed", color = "red")

El mismo gráfico pero más simple con la función scree() del paquete psych

scree(sub_base,factors=FALSE, main ="Grafico de Sedimentacion")

Ahora observamos las cargas factoriales de cada variable para cada componente

cargas <- get_pca_var(ACP)  #con esta función obtenemos toda la información

#Obtenemos las coordenas o puntuaciones de las variables en los componentes
cargas$coord %>% kbl() %>% kable_classic_2(full_width = F, position = "left") 

Podemos usar función corrplot() para ver mejor las variables que más contribuyen a cada componente y solo usando los dos primeros

Con la función de fviz_pca_var() del paquete factoextra graficamos las variables

fviz_pca_var(ACP,repel=T)

Tambien podemos graficar los casos sobre los componentes, para eso usamos la función fviz_pca_ind() del del paquete factoextra

fviz_pca_ind(ACP,label="none")

Finalmente realizamos el biplot de variables y observaciones en el mismo plano

fviz_pca(ACP, col.ind = "blue", col.var = "red", label="var")

FINALMENTE –> UN TRUCAZO ES USAR UNA INTERFAZ GRAFICA COMO EL PAQUETE “Factoshiny”

#install.packages("Factoshiny")   #Se instala primero
library(Factoshiny)
res <- Factoshiny(sub_base)  

Usaremos la muestra aleatoria de tamaño 200 de la Encuesta nacional de Consumo Alimentario del 2014, ya trabajadas en clases anteriores (base_enca2014_200.xlsx). De ahí seleccionaremos las variables: prot_g_dia, cho_g_dia, lip_g_dia, g_sat_g_di, g_mono_g_d, g_poli_g_d y colest_mg.

#Cargamos la base
base <- read_excel("data/base_enca2014_200.xlsx")

#Seleccionamos las variables
sub_base <- base[ , c("prot_g_dia", "cho_g_dia", "lip_g_dia", "g_sat_g_di", 
                      "g_mono_g_d", "g_poli_g_d", "colest_mg")]

summary(sub_base)  #Revisamos la estadisdística descriptiva

cor(sub_base)  #Hacemos la correlación
cortest.bartlett(cor(sub_base), n=200)  #test de Barlett
KMO(sub_base)  #Test KMO (Kaiser-Meyer-Olkin)

res.PCA<-PCA(sub_base,graph=FALSE)             #Hacemos el ACP con el paquete de FactoMineR
fviz_eig(res.PCA, addlabels = TRUE, main="Grafico de Sedimentacion")  #Grafico de sedimentacion
summary(res.PCA)                              #Vemos los resultados completos
write.infile(res.PCA, "acp.txt", sep = "\t") #Exportamos los resultados a un text file
corrplot(res.PCA$var$coord[ ,1:2], is.corr = FALSE, method ="color", 
         tl.col = "black", col = COL1("Greens"),addCoef.col ="white", 
         number.digits=2, cl.ratio = 1, col.lim=c(-1,1))   #Graficamos las cargas
plot.PCA(res.PCA,choix='var')                #Graficamos las variables
plot.PCA(res.PCA)                            #Graficamos los casos
fviz_pca(res.PCA, col.ind = "blue", col.var = "red", label="var")  #Hacemos el biplot